Вместе с рабочей станцией DGX Station компания NVIDIA представила и мини-систему DGX Spark: это, как утверждается, самый компактный в мире суперкомпьютер для ИИ-задач. Система заключена в корпус с размерами всего 150 × 150 × 50,5 мм, а масса составляет около 1,2 кг.

Новинка создавалась по проекту DIGITS. Основой служит платформа Blackwell Ultra с суперчипом Grace Blackwell GB10. Изделие содержит ускоритель Blackwell с тензорными ядрами пятого поколения, связанный посредством NVLink-C2C с 20-ядерным процессором Grace, который объединяет по 10 ядер Arm Cortex-X925 и Arm Cortex-A725. Заявленная ИИ-производительность достигает 1 Пфлопс на операциях FP4.

Мини-ПК располагает 128 Гбайт памяти LPDDR5x с 256-бит шиной и пропускной способностью до 273 Гбайт/с. Установлен M.2 NVMe SSD вместимостью 1 или 4 Тбайт с шифрованием информации. Применяется сетевой адаптер NVIDIA ConnectX-7 SmartNIC. Кроме того, присутствуют контроллеры Wi-Fi 7 и Bluetooth 5.3.

Источник изображений: NVIDIA

В набор интерфейсов входят четыре порта USB 4 Type-C (до 40 Гбит/с), коннектор RJ45 для сетевого кабеля (10GbE), разъём HDMI 2.1a. Заявленное энергопотребление составляет 170 Вт. Компьютер функционирует под управлением NVIDIA DGX OS — модификации Ubuntu, адаптированной для работы с ИИ.

Отмечается, что новинка позволяет локально запускать «рассуждающие» ИИ-модели DeepSeek, Meta✴, Google и другие с 200 млрд параметров. Программный стек NVIDIA AI предоставляет доступ к необходимым ИИ-инструментам, фреймворкам, библиотекам и предварительно обученным моделям. Приём заказов на DGX Spark уже начался. Выпуском систем на данной платформе займутся ASUS, Dell и HP.

NVIDIA анонсировала настольный ИИ-суперкомпьютер DGX Station на аппаратной платформе Blackwell Ultra. Устройство, оснащённое суперчипом Grace Blackwell GB300, ориентировано на ресурсоёмкие нагрузки ИИ, включая задачи инференса.

По заявлениям NVIDIA, система DGX Station обеспечивает производительность уровня ЦОД в настольном формате. Задействован ускоритель GB300 с 288 Гбайт памяти HBM3E, которая обеспечивает пропускную способность до 8 Тбайт/с. Ускоритель Blackwell Ultra связан с процессором Grace с 72 Arm-ядрами Neoverse V2 посредством NVLink-C2C (900 Гбайт/с). При это сам модуль ускорителя съёмный. Система несёт на борту 496 Гбайт памяти LPDDR5X (четыре модуля SOCAMM) с пропускной способностью до 396 Гбайт/с.

Источник изображения: NVIDIA

DGX Station оснащён 800G-адаптером NVIDIA ConnectX-8 SuperNIC (два порта QSFP или OSFP), а также два порта RJ45. На заднюю панель выведены четыре USB-порта Type-A и один Type-C, видеовыход MiniDP и шесть аудиоразъёмов. На самой плате присутствуют три PCIe-разъёма x16 и три слотам M.2. Кроме того, есть слот для карты с BMC.

Прочие технические характеристики новинки пока не раскрываются. В качестве программной платформы применяется NVIDIA DGX OS — специализированная модификация Ubuntu, оптимизированная для работы с ИИ. Пользователи могут получить доступ к микросервисам NVIDIA NIM для быстрого развёртывания ИИ-моделей и программной экосистеме NVIDIA AI Enterprise в целом.

Система демонстрирует ИИ-производительность до 20 Пфлопс в режиме FP4. Устройства DGX Station будут предлагаться такими партнёрами NVIDIA, как ASUS, Box, Dell, HPE, Lambda и Supermicro. Продажи начнутся позднее в текущем году.

Dell представила рабочие станции Dell Pro Max with GB10 и Dell Pro Max with GB300, специально созданные для разработчиков ИИ-технологий, и базирующиеся на архитектуре NVIDIA Grace Blackwell, ранее эксклюзивной для систем ЦОД.

Как сообщает компания, решения Dell Pro Max легко интегрируются в экосистему Dell AI Factory, предлагая единый опыт работы с ПО NVIDIA AI Enterprise. Это гарантирует, что разработчики, использующие Dell Pro Max with GB10 и Dell Pro Max with GB300, могут свободно перемещать свои модели между средами — с рабочего стола в DGX Cloud или инфраструктуры ЦОД Dell — практически без изменений кода.

Dell Pro Max with GB10 Источник изображений: Dell

Новинки работают под управлением DGX OS и поставляются с предварительно настроенным стеком NVIDIA AI Enterprise, который в том числе включает инструменты NVIDIA Blueprints. Такой целостный подход ускоряет рабочие процессы и упрощает масштабирование, позволяя создавать и тестировать прототипы решений локально, а затем бесшовно масштабировать их в облаке или ЦОД. Объединяя эксперименты на рабочем столе и масштабируемость на уровне предприятия, Dell позволяет разработчикам ИИ с легкостью внедрять инновации, говорит компания.

Dell Pro Max with GB10, созданный для разработчиков, исследователей и студентов, представляет собой компактный мощный ПК с FP4-производительностью до 1 Пфлопс. Он позволяя создавать прототипы, настраивать и развёртывать рассуждающие ИИ-модели, включащие до 200 млрд параметров.

Dell Pro Max with GB300

В свою очередь, Dell Pro Max with GB300 позиционируется как идеальное решение для продвинутых разработчиков ИИ, которым требуется производительность ИИ-сервера на рабочем столе. Dell Pro Max with GB300 базируется на суперускорителе NVIDIA GB300 (Blackwell Ultra) с 784 Гбайт унифицированной памяти (288 Гбайт памяти HBME3e у ускорителя и 496 Гбайт LPDDR5X у CPU) и 800GbE-адаптером (ConnectX-8 SuperNIC). FP4-производительность составляет до 20 Пфлопс, что делает его идеальным решением для обучения и инференса крупномасштабных рабочих ИИ-нагрузок с использованием больших языковых моделей (LLM) с 460 млрд параметров.

Компания System76 анонсировала настольную рабочую станцию Thelio Astra, предназначенную прежде всего для создания ПО для автомобильного сектора. Особенность новинки заключается в использовании процессора с архитектурой Arm.

Отмечается, что в большинстве современных автомобилей применяется бортовое оборудование, оснащённое Arm-чипами. Благодаря Thelio Astra разработчики софта для Arm-платформ смогут отказаться от применения эмуляторов, которые необходимы при работе на компьютерах с х86-процессорами. Это ускорит и сделает более удобным создание новых программных продуктов для транспортной отрасли.

Источник изображения: System76

В основе рабочей станции — процессор Ampere Altra со 128 ядрами. Установлен профессиональный графический ускоритель NVIDIA RTX 6000 Ada. Объём оперативной памяти DDR4-3200 может достигать 512 Гбайт.

Предусмотрены два коннектора M.2 для SSD с интерфейсом PCIe 4.0 вместимостью до 8 Тбайт каждый. Компьютер оснащён двумя сетевыми портами 10GbE и одним портом 1GbE, а также выделенным портом управления 1GbE. Питание обеспечивает блок мощностью 850 Вт с сертификатом 80 Plus Gold. Габариты составляют 438 × 247 × 372 мм.

Возможен вывод изображения одновременно на несколько мониторов через три интерфейса DisplayPort, разъём HDMI и аналоговый коннектор D-Sub. Присутствуют также четыре порта USB 3.2 Gen1 Type-A. Говорится о применении эффективной системы воздушного охлаждения. Рабочие станции собираются вручную на предприятии в США. Может использоваться ОС Ubuntu 22.04 LTS или Ubuntu 24.04 LTS. В продажу Thelio Astra поступит 12 ноября по ориентировочной цене от $3300.

Канадский стартап Tenstorrent приступил к выпуску ИИ-чипов Wormhole. В настоящее время стартап предлагает построенные на них ИИ-ускорители Wormhole n150 и n300, а также рабочие станции TT-LoudBox и TT-QuietBox на их базе.

ИИ-ускорители Wormhole n150 и n300 представляют собой двухслотовые FHFL-карты (PCIe 4.0 x16): n150 с одним чипом Wormhole, n300 — с двумя. Wormhole n150 и n300 имеют пассивное охлаждение и теплопакет 160 Вт и 300 Вт соответственно. Процессоры Wormhole были разработаны в 2021 году, но их внедрение происходит только сейчас. Это второе поколение ИИ-ускорителей Tenstorrent, которые придут на смену Grayskull.

Источник изображений: Tenstorrent

Wormhole n150 оснащён 72 ядрами Tensix, каждое из которых включает пять ядер RISC-V, поддерживающих различные форматы данных, и 108 Мбайт SRAM — вместе они предоставляют до 262 Тфлопс (FP8). Ускоритель также оснащён 12 Гбайт памяти GDDR6 с ПСП 288 Гбайт/с. У Wormhole n300 таких ядер 128, а частота также равна 1 ГГц. Объём SRAM составляет 192 Мбайт, а внешняя подсистема памяти включает 24 Гбайт GDDR6 с ПСП 576 Гбайт/с. Ускоритель обеспечивает производительность до 466 Тфлопс (FP8).

RISC-V ядра Tensix обладают аппаратной и программной поддержкой вертикального и горизонтального масштабирования — объединения множества ядер в единое целое как внутри одного узла, так и за его пределами с другими ядрами Tensix на нескольких чипах Wormhole. Именно эта функциональность, как надеется Tenstorrent, позволит ей отобрать долю рынка у NVIDIA. Впрочем, стоимость новинок тоже невелика: Wormhole n150 предлагается по цене $999, а n300 — за $1399.

В рабочих станциях Tenstorrent четыре Wormhole n300 могут работать как один ускоритель, который с точки зрерния ПО выглядит как единый массив ядер Tensix. Впрочем, можно отдать по одному ускорителю каждому пользователю или же одновременно обрабатывать восемь разных ИИ-моделей, причём всё это без использования виртуализации.

В состав рабочей станции TT-LoudBox помимо четырёх ускорителей n300 (суммарно восемь чипов Wormhole) входят два восьмиядерных процессора Intel Xeon 4309Y (Ice Lake-SP), 512 Гбайт RAM, NVMe-хранилище ёмкостью 4 Тбайт и пара портов 10 GbE. TT-LoudBox уже поступила в продажу по цене $12 тыс.

Рабочая станция TT-QuietBox оснащена четырьмя Wormhole n300 и 16-ядерным AMD EPYC 8124P (Siena). Для отвода тепла от компонентов используется жидкостное охлаждение, а остальные характеристики идентичны TT-LoudBox. Устройство доступно для предзаказа по цене $15 тыс. с поставкой в течение 8–10 недель.

Компания HP, по сообщению ресурса Tom's Hardware, готовит к выпуску новые рабочие станции серии Z, рассчитанные на приложения ИИ. В оснащение этих компьютеров войдут ускорители NVIDIA A800, которые изначально создавались для Китая в качестве «урезанной» версии А100 (40 Гбайт).

Предполагалось, что операторы дата-центров в КНР смогут закупать решения A800, которые проектировались специально с учётом санкционных ограничений со стороны США. Стоимость этих ускорителей, по имеющимся данным, на начальном этапе составляла $14,5 тыс. Однако в связи с введением новых экспортных ограничений США на поставку в Китай современных технологий отгрузки A800 в Поднебесную стали невозможны. Вместо них NVIDIA подготовила ускорители H20, L20 и L2.

А выпущенные A800 пришлось перераспределять в другие регионы. Однако из-за того, что у A800 пропускная способность интерконнекта NVLink в угоду санкциям снижена до 400 Гбайт/с против 600 Гбайт/с у А100, «урезанные» ускорители оказались не слишком популярны среди заказчиков. В такой ситуации установка A800 в рабочие станции НР поможет NVIDIA реализовать имеющиеся запасы продукции.

Источник изображения: NVIDIA

Характеристики систем НР серии Z пока не раскрываются. Высказываются предположения, что в их основу лягут либо процессоры Intel Xeon Emerald Rapids (или, возможно, Xeon Sapphire Rapids), либо чипы AMD Ryzen Threadripper Pro 7000 WX. Сама NVIDIA ещё в ноябре 2023 года фактически анонсировала A800 для западных рынков, заявив, что это «идеальная платформа для рабочих станций для ИИ, анализа данных и высокопроизводительных вычислений». В числе партнёров NVIDIA, которые занимаются продвижением A800, значатся PNY, Colfax International, ASK и Elsa.

Компания ASRock Rack анонсировала материнскую плату W680 WS типоразмера ATX, предназначенную для построения рабочих станций на платформе Intel Raptor Lake. В основу положен набор логики Intel W680: возможна установка одного чипа Core 13/14-го поколения в исполнении LGA 1700 с показателем TDP до 125 Вт.

Новинка располагает четырьмя слотами для модулей оперативной памяти DDR5-4400 ECC/non-ECC UDIMM суммарным объёмом до 128 Гбайт. В общей сложности доступны 14 портов SATA-3 (имеется дополнительный SATA-контроллер ASM1061) с возможностью формирования массивов RAID 0/1/5/10. Кроме того, могут быть установлены два SSD стандарта М.2 2280/2260/2242 с интерфейсом PCIe 4.0 x4.

Источник изображения: ASRock Rack

Для карт расширения предусмотрены по одному слоту PCIe 5.0 x16 и PCIe 5.0 x8, а также два слота PCIe 4.0 x4. В оснащение входят четырёхпортовый сетевой контроллер 1GbE (Intel i210). Интерфейсный блок содержит четыре гнезда RJ-45 для сетевых кабелей, по одному разъёму HDMI, DisplayPort и D-Sub для вывода изображения, последовательный порт, два порта USB 3.2 Gen1 Type-A, гнёзда для наушников и микрофона, разъём SPDIF.

Диапазон рабочих температур — от +10 до +35 °C. Плата имеет размеры 305 × 244 мм. Заявлена совместимость с Windows 10/11, RedHat Enterprise Linux Server 8.5, CentOs 8.5, SUSE SLES 1502 и Ubuntu 21.10.

Компания Lenovo анонсировала рабочую станцию ThinkStation P8 для решения задач в области ИИ, визуализации данных, обучения больших языковых моделей (LLM) и пр. В основу положены новейшие процессоры AMD Ryzen Threadripper Pro 7000 WX, дебютировавшие в конце октября.

Разработчик заявляет, что компьютер обладает гибкими возможностями конфигурирования. Устройство заключено в корпус с габаритами 175 × 508 × 435 мм, а вес может достигать 25,9 кг. Шасси оптимизировано для монтажа в стойку.

Изображение: Lenovo

Используется материнская плата на чипсете AMD WRX90. Максимальная комплектация предусматривает наличие процессора Ryzen Threadripper Pro 7995WX (96 ядер; 192 потока; 2,5–5,1 ГГц). Доступны восемь слотов для модулей DDR5-4800 суммарным объёмом до 2 Тбайт.

Изображение: Lenovo

Рабочая станция может нести на борту до семи SSD формата M.2 (PCIe 4.0) с возможностью формирования массивов RAID 0/1/10/5 или до трёх HDD большой вместимости. Слоты расширения выполнены по схеме 4 × PCIe 5.0 x16, 2 × PCIe 5.0 x8 и 1 × PCIe 4.0 x8. Могут быть установлены до трёх ускорителей NVIDIA RTX 6000 Ada (48 Гбайт), до четырёх карт NVIDIA RTX A4000 (16 Гбайт) или до четырёх ускорителей AMD Radeon Pro W7600 (8 Гбайт).

В оснащение входят сетевой контроллер 10GbE, адаптеры Wi-Fi 6E и Bluetooth 5.2, порты USB 3.2 Type-A и Type-C, блок питания мощностью 1000 или 1400 Вт с сертификатом 80 Plus Platinum. Может быть использована платформа Windows 11 Pro или ОС с ядром Linux. В продажу ThinkStation P8 поступит в I квартале 2024 года.

Компания HP анонсировала высокопроизводительную рабочую станцию Z6 G5 A на новейшей аппаратной платформе AMD Ryzen Threadripper Pro 7000 WX. Система предназначена для решения сложных задач в области виртуализированного производства, 3D-рендеринга, ИИ и машинного обучения.

Максимальная конфигурация включает процессор Ryzen Threadripper Pro 7995WX с 96 ядрами (192 потока) с базовой тактовой частотой 2,5 ГГц (повышается до 5,1 ГГц). Объём кеша L3 равен 384 Мбайт, показатель TDP — 350 Вт.

Источник изображения: HP

Станция оборудована восемью слотами для модулей оперативной памяти DDR5-5200. Есть возможность установки четырёх SSD формата M.2 и четырёх NVMe-накопителей с фронтальным доступом и поддержкой горячей замены. Дополнительно можно задействовать карту расширения Z Turbo Quad Pro с интерфейсом PCIe, которая поддерживает ещё четыре накопителя М.2.

Модель Z6 G5 A предоставляет возможность монтажа до трёх мощных ускорителей. Среди доступных интерфейсов упомянуты Thunderbolt 4, USB 3.2 SuperSpeed Type-C (20 Гбит/с) и два сетевых порта 10GbE.

Доступ ко многим компонентам, таким как вентиляторы, накопители и модули ОЗУ, можно получить, не используя инструменты. Более 20 температурных датчиков отвечают за оптимизацию работы системы охлаждения в режиме реального времени, что позволяет свести к минимуму уровень шума. Может использоваться ОС Windows 11 Pro или Linux. В продажу рабочая станция поступит в ноябре нынешнего года.

Компания Dell расширила ассортимент рабочих станций, анонсировав модель Precision 7875 на базе AMD Ryzen Threadripper Pro 7000 WX. В продажу новинка поступит 5 декабря нынешнего года и будет предлагаться с ОС Windows 10/11, Ubuntu 22.04 LTS, Ubuntu 20.04 LTS или Red Hat Enterprise Linux 9.3.

В наиболее дорогой конфигурации задействован процессор Ryzen Threadripper Pro 7995WX (96 ядер; 192 потока; 2,5–5,1 ГГц; 350 Вт). Объём оперативной памяти DDR5-4800 может достигать 2 Тбайт в конфигурации 8 × 256 Гбайт.

Источник изображения: Dell

Возможна установка двух ускорителей AMD Radeon Pro W7900 или NVIDIA RTX 6000 Ada, а также накопителей типоразмера LFF, SFF и М.2 2280/2230 суммарной вместимостью до 56 Тбайт. За питание отвечает блок с сертификатом 80 Plus Platinum мощностью 1350 или 1000 Вт.

В оснащение входят адаптеры Wi-Fi 6E (802.11ax) и Bluetooth 5.3, звуковой кодек Realtek ALC3246, контроллеры 1GbE и 10GbE, оптический привод 16x DVD+/-RW (опционально). Набор портов включает два гнезда RJ-45 для сетевых кабелей, по четыре разъёма USB 3.2 Gen1 (два на фронтальной панели) и USB 3.2 Gen2 Type-C (один спереди), последовательный порт (опционально), два гнезда PS/2 (опционально). Габариты составляют 442,7 × 172,6 × 465,0 мм, максимальный вес — 25,57 кг. Упомянут модуль TPM 2.0.